Quân đội Kim đại thể có thể phân thành quân bản tộc, quân tộc khác, 'châu quận binh' và 'thuộc quốc quân'; trong đó hai loại đầu là chủ lực, còn hai loại sau là cánh phụ. Đầu tiên, chủ nô lệ, chủ phong kiến đều phải tòng quân. Sau khi chiếm được đất đai của người Hán, chủ yếu thi hành 'trưng binh chế', trưng dụng người Hán và các dân tộc thiểu số khác làm binh, gọi là "Thiêm quân", đến hậu kỳ thì thi hành "mộ binh chế".

Sau khi triều Kim thống trị Trung Nguyên, cũng phỏng theo Hán chế mà tiến hành phát bổng lộc, giúp đỡ cho quân đội. Đối với quân quan già giải ngũ, từng đặt lệ "cấp thưởng". Đối với quân Tống đầu hàng, triều Kim thường giữ lại hệ thống tổ chức ban đầu, vẫn dùng hàng tướng người Hán thống lĩnh. Quân Kim lấy kị binh làm chủ, bộ binh là thứ. Kị Binh Kim có nhiều ngựa, mặc trọng giáp. Sau khi binh các bộ tộc tăng lên nhiều, số lượng bộ binh cũng tăng mạnh. Quy mô thủy quân Kim cũng tương đối lớn, song sức chiến đấu lại khá yếu. Ngoài binh khí lạnh, quân Kim còn sử dụng hỏa khí như hỏa pháo, thiết hỏa pháo, phi hỏa thương trong lúc tác chiến. Khi Mông Cổ tràn xuống phía nam, quân Kim đã dùng hỏa khí để kháng cự. Năm 1232, tướng Kim Xích Trản Hợp Hỉ trú thủ Biện Kinh, "có hỏa pháo tên là Chấn thiên lôi, thuốc nổ được nhét vào trong quả sắt để dùng làm hỏa điểm, pháo nổ lửa cháy, nghe như tiếng sấm, ngoài 300 dặm vẫn còn nghe được, mọi thứ trong vòng nửa mẫu bị đốt cháy".[6][31]

Kim ban đầu đặt "Đô thống" để làm cơ quan quân sự, sau đổi thành "Nguyên soái phủ", "Xu mật viện", hiệp trợ hoàng đế quản lý toàn quân. Thời chiến, hoàng đế chỉ định thân vương lãnh binh xuất chinh, gọi là Đô nguyên soái, Tả-hữu phó nguyên soái, là các chức vụ lâm thời. Cơ cấu quân sự biên phòng có Chiêu thảo ty, Thống quân ty... Quân đội triều Kim sử dụng chế độ Mãnh an Mưu khắc (Meng'an-Mouke), một chế độ kết hợp xã hội và quân sự. Từ trước khi lập quốc, nam giới thành niên tộc Nữ Chân đều là chiến sĩ, thời bình tham gia vào hoạt động sản xuất, thời chiến thì tham gia chiến đấu, binh khí và lương thực của bản thân phải tự túc. Khoảng một nghìn hộ được phân thành một 'mãnh an', khoảng một trăm hộ được phân thành một 'mưu khắc', một 'mãnh an' tương đương với một nghìn phu, một 'mưu khắc' tương đương với một trăm phu. 'Vạn hộ phủ' quản lý các 'mãnh an', 'mãnh an' quản lý 'mưu khắc', bên dưới 'mưu khắc' còn có các tổ chức Ngũ Thập (五十), Thập (十), Ngũ (伍). Bố trí binh sĩ phần nhiều là một chính, một phó, thời chiến thì phó quân có thể thay thế vị trí của chính quân nếu trống. Binh sĩ Kim theo chế độ thế tập, có thể để con em thay thế, song không thể cho nô bộc gánh vác thay.[6]

Khi Hoàn Nhan A Cốt Đả khởi binh phản Liêu, lấy 300 khẩu là một 'mưu khắc', 10 'mưu khắc' là một 'mãnh an'. Với binh lực ít ỏi ban đầu, quân Kim 12 năm sau đã tiêu diệt hoàn toàn Liêu và Bắc Tống.[32] Về sau, "Mãnh an-mưu khắc" vừa là chế độ quân sự, vừa là chế độ hành chính. Triều Kim không ngừng dời về phía nam, chế độ "Mãnh an-mưu khắc" dần thích ứng với chế độ nô lệ và bị suy yếu. Hiện tượng người Nữ Chân ngày càng nhược hóa là khá phổ biến. Thời Kim Thế Tông, A Lỗ Hãn nhậm chức Thiểm Tây lộ Thống quân sứ, "quân tịch Thiểm Tây còn thiếu, theo lệ cũ dùng con em bổ sung, nhưng tư chất phần nhiều không dùng được, A Lỗ Hãn phải tuyển bù trong đám quân dưới trướng A Lý Hỉ"[33] Năm 1168, triều đình Kim tuyển thị vệ, thân quân trong các "Mãnh an-mưu khắc", song "phần lớn không có tài cung tên".[34] Cuối cùng, sau khi kị binh Mông Cổ nổi lên, quân Kim thảm bại trong các chiến dịch quy mô lớn, phải dời đến Biện Kinh, tuy nhiên "Trung hiếu quân" do Kim Ai Tông thành lập vẫn có sự uy hiếp nhất định đối với người Mông Cổ.[6]

Kỵ binh Thiết Phù Đồ

Quân Kim có những kị binh được trang bị khôi giáp nặng nề bậc nhất trong lịch sử Trung Hoa. Được biết dưới cái tên “Thiết Phù Đồ” (铁浮屠), đây là một công cụ đắc lực của Kim quốc, tham gia hàng chục trận chiến quan trọng, góp phần tạo dựng nên những võ công vang dội của người Nữ Chân khắp vùng phía Bắc Trung Quốc trong thế kỉ 12. Theo "Kim lỗ đồ kinh" (金虏图经 - ghi chép của một tù binh Kim) có ghi: "Ngột Truật đích thân đem ba ngàn nha binh đến tiếp ứng, tất cả nha binh toàn thân bọc giáp, giặc gọi là Thiết Phủ Đồ, cũng gọi là Xoa Thiên Hộ, cái tên Xoa Thiên Hộ này là để chỉ thân quân thị vệ". Thiết Phủ Đồ là một đơn vị dành riêng cho con trai của các gia đình quý tộc Nữ Chân. Các Thiết Phủ Đồ được bọc giáp toàn thân, chỉ để lộ hai mắt và bàn tay, gần giống với các kị binh Ba Tư thế kỉ 4-7.

“Thiết Phủ Đồ” được sử dụng như một mũi dùi tiên phong lao thẳng vào đội hình quân địch. Triệu Ngạn Vệ, một người Tống đã ghi chép lại về chiến thuật của họ: “Những kị sĩ xếp thành hình tam giác hướng về phía trước, họ lao về phía kẻ thù nhanh hết mức có thể rồi sau đó tỏa ra, chạy quanh bao vây quân địch, chờ cơ hội để tấn công thêm lần nữa, nếu tình hình yêu cầu, họ có thể xuống ngựa chiến đấu như những người lính bộ binh”. Trong một số ghi chép khác, quân Kim cũng sử dụng Quải Tử Mã (拐子马), ba kị sĩ sẽ được liên kết với nhau bằng một sợi dây da, nhằm đẩy ngã và giẫm chết bất kì bộ binh xấu số nào bị kẹt ở giữa. Có ý kiến cho rằng “Quải tử mã” là một đơn vị riêng, tách biệt với “Thiết Phủ Đồ”, những cũng có ý kiến lại cho rằng “Quải tử mã” thật ra là lực lượng 10.000 kỵ binh chạy ở hai cánh trợ chiến cho những đợt tấn công của “Thiết Phủ Đồ”. “Thiết Phủ đồ” còn có thể xuống ngựa chiến đấu như một đơn vị bộ binh nặng. Trong trận chiến tại Tiên Nhân Quan, họ đã xuống ngựa và tiến lên theo đội hình của bộ binh.

Phong cách chiến đấu của đơn vị này có thể đã chịu ảnh hưởng từ những kị binh “Thiết Dao Tử” (鐵 鷂子) của Tây Hạ. Về “Thiết Dao Tử”, trong Tống sử có miêu tả về đơn vị này như sau: “Những kị sĩ có thể di chuyển hàng trăm đến hàng nghìn dặm một ngày trên mình ngựa, họ là những kị sĩ xuất sắc, tấn công mạnh mẽ như sấm sét, di chuyển linh hoạt như mây bay. Khi gặp quân địch, họ tấn công phủ đầu bằng những đợt xung phong mạnh mẽ và bất ngờ”. Những kị binh này là một đội quân tinh nhuệ của hoàng gia Tây Hạ, họ tham gia rất nhiều chiến dịch. Chỉ được bọc giáp ở mức độ trung bình, ưu thế của họ đến từ độ dẻo dai và nhanh nhẹn, những cây thương cũng có thể gắn chặt lên mình ngựa để phòng trường hợp người kị sĩ thương vong, con ngựa vẫn có thể đâm chết kẻ địch bằng cách lao lên.

Để chống lại những đội kị binh thiện chiến quân Kim, quân nhà Tống cũng đã phát triển những chiến thuật của riêng mình với những khối bộ binh vững chắc được trang bị nỏ, ống phóng hỏa khí (tiền thân của súng cầm tay) và các loại kích.